Fu membro di prestigiose istituzioni scientifiche, italiane e straniere, fra le quali l'Accademia delle Scienze di Torino, l'Accademia nazionale delle scienze, detta anche Accademia dei XL, e l'Accademia di Berlino.

Allievo a Chioggia di Francesco e Giuseppe Fabris, vestì l'abito ecclesiastico e si fregiò del titolo di abate, nonostante avesse ricevuto solo gli ordini minori. Si interessò di argomenti di vario genere, dalla chimica, dove promosse la teoria lavoiseriana, alla botanica, con particolare riferimento alle alghe, passando per la mineralogia e per questioni di agraria.

Convinto sostenitore di Albrecht von Haller, prese parte ai dibattiti sull'irritabilità e sull'elettricità animale. La sua opera maggiore, che ottenne ampi consensi nel mondo scientifico contemporaneo, è la Zoologia Adriatica ossia Catalogo ragionato degli animali del golfo e delle lagune di Venezia del 1792, nella quale anticipò gli studi zoo-biologici in chiave biometrica e descrisse per primo, tra le altre specie di porifere, la Suberites domuncula.. Nello stesso anno pubblicò anche il trattato Delle conserve irritabili, e del loro movimento di progressione verso la luce, che stimolò i successivi approfondimenti in relazione alla chimica della fisiologia vegetale.

È sepolto nella chiesa di Santa Caterina in Padova e un busto funerario che lo raffigura si trova nel chiostro del convento della basilica di Sant'Antonio da Padova della stessa città. La città di Chioggia gli ha dedicato nel 1995 le Giornate oliviane, un convegno di studi con la pubblicazione di monografie a lui consacrate e lo scoprimento di una lapide commemorativa.

Melchiorre Cesarotti scrisse in suo ricordo una commemorazione funebre, l'Elogio dell'abate Giuseppe Olivi (Padova 1796). Ugo Foscolo ebbe con sé l'Elogio durante il soggiorno ai Colli Euganei nell'estate del 1796.